Các phát hiện khảo cổ cho thấy một khu định cư đã có từ thời kỳ Đồ đá mới. Trong kỷ nguyên La Mã (thế kỷ I đến thế kỷ V), một pháo đài của biên thành Danube nằm tại Klosterneuburg ở biên giới phía tây bắc của Pannonia. Sau khi Charlemagne đánh bại người Avar, một khu định cư của Đế quốc Carolus ở Awarenmark mới thành lập được ghi là Omundesdorf có thể tương ứng với địa điểm này của thị xã. Bản thân Klosterneuburg lần đầu tiên được nhắc đến với cái tên Nivvenburc (Neuburg, "Lâu đài mới") trong một chứng thư năm 1108.

Năm 1113, nó trở thành dinh thự của Phiên hầu tước nhà Babenberg Leopold III, vị thánh bảo trợ sau này của Phiên hầu quốc Áo. Năm 1114 Leopold trở thành con rể của hoàng đế Heinrich IV nhà Salier qua cuộc hôn nhân với Agnes của Wailingen, đã một lâu đài công tước được dựng lên cùng với nhà thờ thuộc giáo hội trên một ngọn đồi nhô lên ngay từ bờ sông Danube,[3] mà ông đã chuyển giao cho các giáo sĩ Dòng Augustinô vào năm 1133. Dòng tu này là một trong những dòng tu lâu đời nhất và phong phú nhất ở Áo; dòng tu này sở hữu phần lớn đất đai mà ngày nay là vùng ngoại ô phía tây bắc của Vienna.[3] Sau đó, Công tước Leopold VI của Áo (mất năm 1230) cũng đã từng cư trú tại đây trong suốt thời gian trị vì của mình. Cũng chính tại đây, con trai cả của Leopold VI đã trèo cây, ngã và chết. Khu phức hợp tu viện bao gồm nhà nguyện cũ năm 1318 với lăng mộ của Leopold và Bàn thờ Verdun, có niên đại từ thế kỷ XII, kho bạc và phòng di tích, thư viện với 30.000 tập sách và nhiều bản thảo, hình ảnh phòng trưng bày, bộ sưu tập tiền xu, phòng thần học và quầy rượu, một kho tàng đồ sộ tương đương ở Heidelberg.[3]

Chợ ở tả ngạn phát triển nhanh chóng cùng với tu viện nổi tiếng ở hữu ngạn. Sông Danube dù là một tuyến đường thương mại quan trọng nhưng cũng nhiều lần ảnh hưởng đến người dân vì lũ. Vào cuối thế kỷ XIII, hai phần của thị xã, Klosterneuburg (tu viện) và Korneuburg (chợ) đã tách biệt nhau ra. Sau đó, vua Albert I của Đức nhà Habsburg đã cấp đặc quyền thị trấn riêng cho Klosterneuburg vào năm 1298.

"Untere Stadt" không được kiên cố đã bị tàn phá bởi lực lượng Ottoman trong cuộc Cuộc vây hãm thành Vienna][5] và năm 1683 Trận chiến thành Vienna[6] trong khi "Obere Stadt" kiên cố đã được bảo vệ thành công trong cả hai trường hợp. Vào thế kỷ 18, Hoàng đế Charles VI, người không thể thắng trong Chiến tranh Kế vị Tây Ban Nha, đã thiết lập kế hoạch xây dựng lại khu phức hợp tu viện Klosterneuburg theo mô hình của Escorial . Việc xây dựng các tòa nhà Baroque bắt đầu vào năm 1730; tuy nhiên, nó đã không tồn tại trong giai đoạn đầu.

Sau thất bại của Áo trong Trận Austerlitz năm 1805, thị trấn bị quân đội của Napoléon chiếm đóng cho đến năm 1809. Một thị trấn của nhà sản xuất rượu trong thế kỷ 19, Klosterneuburg đã phát triển thành một nơi giải trí và khu dân cư của các quan chức Áo làm việc tại thủ đô gần đó. Trong thời gian Anschluss của Áo đến Đức Quốc xã từ năm 1938, Klosterneuburg được hợp nhất thành quận thứ 26 của "Greater Vienna", đã được đảo ngược với việc thành lập thuộc Quận Wien-Umgebung năm 1954.

Vào cuối năm 2016 Quận Wien-Umgebung bị giải thể và Klosterneuburg trở thành một phần của Tulln.[7][8]